az ml endpoint realtime
注意
此參考是 Azure CLI 的 azure-cli-ml 延伸模組的一部分(2.0.28 版或更高版本)。 擴充功能會在您第一次執行 az ml endpoint realtime 命令時自動安裝。 深入了解擴充功能。
管理可運作的即時端點。
命令
名稱 | Description | 類型 | 狀態 |
---|---|---|---|
az ml endpoint realtime create-version |
在工作區中建立即時端點的版本。 |
副檔名 | GA |
az ml endpoint realtime delete |
從工作區中刪除即時端點及其版本。 |
副檔名 | GA |
az ml endpoint realtime delete-version |
刪除工作區中即時端點的版本。 |
副檔名 | GA |
az ml endpoint realtime get-access-token |
取得令牌以發出要求即時端點。 |
副檔名 | GA |
az ml endpoint realtime get-keys |
取得金鑰以針對即時端點發出要求。 |
副檔名 | GA |
az ml endpoint realtime get-logs |
取得即時端點的記錄。 |
副檔名 | GA |
az ml endpoint realtime list |
列出工作區中的即時端點。 |
副檔名 | GA |
az ml endpoint realtime regen-key |
重新產生即時端點的金鑰。 |
副檔名 | GA |
az ml endpoint realtime run |
在工作區中執行即時端點。 |
副檔名 | GA |
az ml endpoint realtime show |
在工作區中顯示即時端點的詳細數據。 |
副檔名 | GA |
az ml endpoint realtime update |
更新工作區中的即時端點。 |
副檔名 | GA |
az ml endpoint realtime update-version |
更新工作區中即時端點的版本。 |
副檔名 | GA |
az ml endpoint realtime create-version
在工作區中建立即時端點的版本。
az ml endpoint realtime create-version --name
--version-name
[--add-property]
[--add-tag]
[--ar]
[--as]
[--at]
[--autoscale-max-replicas]
[--autoscale-min-replicas]
[--cc]
[--ccl]
[--cf]
[--collect-model-data]
[--cvt]
[--dc]
[--description]
[--ed]
[--entry-script]
[--environment-name]
[--environment-version]
[--failure-threshold]
[--gb]
[--gbl]
[--gc]
[--ic]
[--id]
[--is-default]
[--max-request-wait-time]
[--model]
[--model-metadata-file]
[--no-wait]
[--nr]
[--path]
[--period-seconds]
[--replica-max-concurrent-requests]
[--resource-group]
[--scoring-timeout-ms]
[--sd]
[--st]
[--subscription-id]
[--timeout-seconds]
[--tp]
[--workspace-name]
[-v]
必要參數
端點名稱。
在端點中建立的版本名稱。
選擇性參數
要加入的索引鍵/值屬性(e.g. key=value )。 您可以使用多個 --add-property 選項來指定多個屬性。
要新增的索引鍵/值標記 (e.g. key=value )。 您可以使用多個 --add-tag 選項來指定多個標籤。
自動調整程式應該嘗試調整此 Web 服務的頻率。 預設值為 1。
是否要啟用此 Web 服務的自動調整。 如果num_replicas為 None,則預設值為 True。
自動調整程式應嘗試針對此 Webservice 維護目標使用率(以百分之 100 的百分比為單位)。 預設值為 70。
自動調整此 Web 服務時要使用的容器數目上限。 預設值為 10。
自動調整此 Web 服務時要使用的容器數目下限。 預設值為 1。
要配置給此 Webservice 的 CPU 核心數目。 可以是十進位。 預設值為 0.1。
此 Webservice 允許使用此 Web 服務的最大 CPU 核心數目。 可以是十進位。
本機檔案的路徑,其中包含要用於映像的 conda 環境定義。
是否要啟用此 Webservice 的模型數據收集。 預設為 False。
這是否為端點中的控制版本。 預設為 False。
包含部署元數據的 JSON 檔案路徑。
服務的描述。
用於部署的 Azure 機器學習 環境目錄。 它與 『az ml environment scaffold』 命令中提供的目錄路徑相同。
本機檔案的路徑,其中包含要針對服務執行的程式代碼(如果提供source_directory的相對路徑)。
用於部署的 Azure 機器學習 環境名稱。
用於部署的現有 Azure 機器學習 環境版本。
當 Pod 啟動時且即時性探查失敗時,Kubernetes 會在放棄之前先嘗試 --failure-threshold 時間。 預設值為 3。 最小值為 1。
要配置給此 Webservice 的記憶體數量(以 GB 為單位)。 可以是十進位。
允許此 Web 服務使用的記憶體數量上限(以 GB 為單位)。 可以是十進位。
要配置給此 Webservice 的 GPU 核心數目。 預設為 1。
包含推斷組態的 JSON 或 YAML 檔案路徑。
在起始即時探查之前,容器啟動后的秒數。 預設值為310。
這是否為端點中的預設版本。 預設為 False。
要求在傳回 503 錯誤之前,要求在佇列中停留的時間上限(以毫秒為單位)。 預設值為 500。
要部署之模型的標識碼。 您可以使用其他 -m 自變數來指定多個模型。 模型必須先註冊。
包含模型註冊元數據的 JSON 檔案路徑。 您可以使用多個 -f 參數來提供多個模型。
旗標不要等候異步呼叫。
要配置給這個 Webservice 的容器數目。 沒有預設值,如果未設定此參數,則預設會啟用自動調整程式。
專案資料夾的路徑。 預設值:目前目錄。
執行活躍度探查的頻率(以秒為單位)。 預設為10秒。 最小值為 1。
每個節點允許此 Webservice 的最大並行要求數目。 預設值為 1。
對應至所提供工作區的資源群組。
要強制對這個 Webservice 進行評分呼叫的逾時。 預設值為 60000。
包含要建立映像之所有檔案的資料夾路徑。
在失敗之後,將即時度探查視為成功的最小連續成功。 預設值為 1。 最小值為 1。
指定訂用帳戶標識碼。
存留時間探查逾時的秒數。預設為2秒。 最小值為 1。
此版本的流量百分位數接受端點。
包含要更新之服務的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime delete
從工作區中刪除即時端點及其版本。
az ml endpoint realtime delete --name
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必要參數
要刪除的端點名稱。
選擇性參數
專案資料夾的路徑。 預設值:目前目錄。
對應至所提供工作區的資源群組。
指定訂用帳戶標識碼。
包含要刪除之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime delete-version
刪除工作區中即時端點的版本。
az ml endpoint realtime delete-version --name
--version-name
[--no-wait]
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必要參數
端點名稱。
要刪除的版本名稱。
選擇性參數
旗標不要等候異步呼叫。
專案資料夾的路徑。 預設值:目前目錄。
對應至所提供工作區的資源群組。
指定訂用帳戶標識碼。
包含要刪除之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime get-access-token
取得令牌以發出要求即時端點。
az ml endpoint realtime get-access-token --name
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必要參數
端點名稱。
選擇性參數
專案資料夾的路徑。 預設值:目前目錄。
對應至所提供工作區的資源群組。
指定訂用帳戶標識碼。
包含要顯示之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime get-keys
取得金鑰以針對即時端點發出要求。
az ml endpoint realtime get-keys --name
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必要參數
端點名稱。
選擇性參數
專案資料夾的路徑。 預設值:目前目錄。
對應至所提供工作區的資源群組。
指定訂用帳戶標識碼。
包含要顯示之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime get-logs
取得即時端點的記錄。
az ml endpoint realtime get-logs --name
[--init]
[--num_lines]
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必要參數
端點名稱。
選擇性參數
取得 init 容器的記錄,而不是評分容器。
要從 tail 傳回的記錄行數目(預設值為 5000)。
專案資料夾的路徑。 預設值:目前目錄。
對應至所提供工作區的資源群組。
指定訂用帳戶標識碼。
包含要顯示之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime list
列出工作區中的即時端點。
az ml endpoint realtime list [--compute-type]
[--model-id]
[--model-name]
[--path]
[--property]
[--resource-group]
[--subscription-id]
[--tag]
[--workspace-name]
[-v]
選擇性參數
如果提供,則只會顯示具有指定計算類型的服務。 (選項為 'ACI'、'AKS'、'AKSENDPOINT')。
如果提供,則只會顯示具有指定模型標識符的服務。
如果提供,則只會顯示具有指定模型名稱的服務。
專案資料夾的路徑。 預設值:目前目錄。
如果提供,則會根據提供的索引鍵/值(e.g. key或key=value)進行篩選。 您可以使用多個 --property 選項來指定多個屬性。
對應至所提供工作區的資源群組。
指定訂用帳戶標識碼。
如果提供,則會根據提供的索引鍵/值(e.g. key或key=value)進行篩選。 您可以使用多個 --tag 選項來指定多個標籤。
包含要列出之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime regen-key
重新產生即時端點的金鑰。
az ml endpoint realtime regen-key --key
--name
[--path]
[--resource-group]
[--set-key]
[--subscription-id]
[--workspace-name]
[-v]
必要參數
如果指定 regen,要重新產生哪一個索引鍵。 選項:主要、次要。
端點名稱。
選擇性參數
專案資料夾的路徑。 預設值:目前目錄。
對應至所提供工作區的資源群組。
提供指定金鑰的驗證值。
指定訂用帳戶標識碼。
包含要顯示之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime run
在工作區中執行即時端點。
az ml endpoint realtime run --name
[--input-data]
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必要參數
要評分的端點名稱。
選擇性參數
要用於呼叫端點的數據。
專案資料夾的路徑。 預設值:目前目錄。
對應至所提供工作區的資源群組。
指定訂用帳戶標識碼。
包含要執行之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime show
在工作區中顯示即時端點的詳細數據。
az ml endpoint realtime show --name
[--path]
[--resource-group]
[--subscription-id]
[--workspace-name]
[-v]
必要參數
要顯示的端點名稱。
選擇性參數
專案資料夾的路徑。 預設值:目前目錄。
對應至所提供工作區的資源群組。
指定訂用帳戶標識碼。
包含要顯示之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime update
更新工作區中的即時端點。
az ml endpoint realtime update --name
[--add-property]
[--add-tag]
[--ae]
[--ai]
[--description]
[--no-wait]
[--path]
[--remove-tag]
[--resource-group]
[--subscription-id]
[--token-auth-enabled]
[--workspace-name]
[-v]
必要參數
要更新的端點名稱。
選擇性參數
要加入的索引鍵/值屬性(e.g. key=value )。 您可以使用多個 --add-property 選項來指定多個屬性。
要新增的索引鍵/值標記 (e.g. key=value )。 您可以使用多個 --add-tag 選項來指定多個標籤。
是否要啟用此端點的金鑰驗證。 預設為 False。
是否要為此端點啟用AppInsights。 預設為 False。
端點的描述。
旗標不要等候異步呼叫。
專案資料夾的路徑。 預設值:目前目錄。
要移除的標記索引鍵。 您可以使用多個 --remove-tag 選項來指定多個標籤。
對應至所提供工作區的資源群組。
指定訂用帳戶標識碼。
是否要啟用此端點的令牌驗證。 預設為 False。
包含要更新之端點的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。
az ml endpoint realtime update-version
更新工作區中即時端點的版本。
az ml endpoint realtime update-version --name
--version-name
[--add-property]
[--add-tag]
[--ar]
[--as]
[--at]
[--autoscale-max-replicas]
[--autoscale-min-replicas]
[--cc]
[--ccl]
[--cf]
[--collect-model-data]
[--cvt]
[--dc]
[--description]
[--ed]
[--entry-script]
[--environment-name]
[--environment-version]
[--failure-threshold]
[--gb]
[--gbl]
[--gc]
[--ic]
[--id]
[--is-default]
[--max-request-wait-time]
[--model]
[--model-metadata-file]
[--no-wait]
[--nr]
[--path]
[--period-seconds]
[--replica-max-concurrent-requests]
[--resource-group]
[--scoring-timeout-ms]
[--sd]
[--st]
[--subscription-id]
[--timeout-seconds]
[--tp]
[--workspace-name]
[-v]
必要參數
端點名稱。
在端點中建立的版本名稱。
選擇性參數
要加入的索引鍵/值屬性(e.g. key=value )。 您可以使用多個 --add-property 選項來指定多個屬性。
要新增的索引鍵/值標記 (e.g. key=value )。 您可以使用多個 --add-tag 選項來指定多個標籤。
自動調整程式應該嘗試調整此 Web 服務的頻率。 預設值為 1。
是否要啟用此 Web 服務的自動調整。 如果num_replicas為 None,則預設值為 True。
自動調整程式應嘗試針對此 Webservice 維護目標使用率(以百分之 100 的百分比為單位)。 預設值為 70。
自動調整此 Web 服務時要使用的容器數目上限。 預設值為 10。
自動調整此 Web 服務時要使用的容器數目下限。 預設值為 1。
要配置給此 Webservice 的 CPU 核心數目。 可以是十進位。 預設值為 0.1。
此 Webservice 允許使用此 Web 服務的最大 CPU 核心數目。 可以是十進位。
本機檔案的路徑,其中包含要用於映像的 conda 環境定義。
是否要啟用此 Webservice 的模型數據收集。 預設為 False。
這是否為端點中的控制版本。 預設為 False。
包含部署元數據的 JSON 檔案路徑。
服務的描述。
用於部署的 Azure 機器學習 環境目錄。 它與 『az ml environment scaffold』 命令中提供的目錄路徑相同。
本機檔案的路徑,其中包含要針對服務執行的程式代碼(如果提供source_directory的相對路徑)。
用於部署的 Azure 機器學習 環境名稱。
用於部署的現有 Azure 機器學習 環境版本。
當 Pod 啟動時且即時性探查失敗時,Kubernetes 會在放棄之前先嘗試 --failure-threshold 時間。 預設值為 3。 最小值為 1。
要配置給此 Webservice 的記憶體數量(以 GB 為單位)。 可以是十進位。
允許此 Web 服務使用的記憶體數量上限(以 GB 為單位)。 可以是十進位。
要配置給此 Webservice 的 GPU 核心數目。 預設為 1。
包含推斷組態的 JSON 或 YAML 檔案路徑。
在起始即時探查之前,容器啟動后的秒數。 預設值為310。
這是否為端點中的預設版本。 預設為 False。
要求在傳回 503 錯誤之前,要求在佇列中停留的時間上限(以毫秒為單位)。 預設值為 500。
要部署之模型的標識碼。 您可以使用其他 -m 自變數來指定多個模型。 模型必須先註冊。
包含模型註冊元數據的 JSON 檔案路徑。 您可以使用多個 -f 參數來提供多個模型。
旗標不要等候異步呼叫。
要配置給這個 Webservice 的容器數目。 沒有預設值,如果未設定此參數,則預設會啟用自動調整程式。
專案資料夾的路徑。 預設值:目前目錄。
執行活躍度探查的頻率(以秒為單位)。 預設為10秒。 最小值為 1。
每個節點允許此 Webservice 的最大並行要求數目。 預設值為 1。
對應至所提供工作區的資源群組。
要強制對這個 Webservice 進行評分呼叫的逾時。 預設值為 60000。
包含要建立映像之所有檔案的資料夾路徑。
在失敗之後,將即時度探查視為成功的最小連續成功。 預設值為 1。 最小值為 1。
指定訂用帳戶標識碼。
存留時間探查逾時的秒數。預設為2秒。 最小值為 1。
此版本的流量百分位數接受端點。
包含要更新之服務的工作區名稱。
詳細資訊旗標。
全域參數
增加記錄詳細資訊,以顯示所有偵錯記錄。
顯示此說明訊息並結束。
只顯示錯誤,隱藏警告。
輸出格式。
JMESPath 查詢字串。 如需詳細資訊和範例,請參閱 http://jmespath.org/。
訂用帳戶的名稱或識別碼。 您可以使用 來設定預設訂用 az account set -s NAME_OR_ID
帳戶。
增加記錄詳細資訊。 使用 --debug 來取得完整偵錯記錄。